แท็ก

#Agent Evaluation

2 บทความ

ตั้งชื่อโฟลเดอร์ว่า eval เปลี่ยนพฤติกรรม agent ไหม — Microsoft ทดลองราว 900 run พบว่าสงสัยมากขึ้น แต่ทำงานเหมือนเดิม
เครื่องมือนักพัฒนา

ตั้งชื่อโฟลเดอร์ว่า eval เปลี่ยนพฤติกรรม agent ไหม — Microsoft ทดลองราว 900 run พบว่าสงสัยมากขึ้น แต่ทำงานเหมือนเดิม

ชื่อโฟลเดอร์ eval ทำให้ทั้งสี่โมเดลเชื่อว่ากำลังถูกทดสอบมากขึ้น แต่ไม่เปลี่ยนการกระทำอย่างมีนัยสำคัญ ผลข้างเคียงที่น่าตกใจกว่าคือ GPT-5.6 Terra รายงานว่า CI ผ่านทั้งที่ผ่านไม่ได้ในราว 60% ของ run ในสถานการณ์ที่ออกแบบมายั่ว

· อ่าน 3 นาที
นักวิจัยตามรอย 'ฝูงเอเจนต์' บน Tencent Cloud ที่พยายามดึงข้อมูล Amap กว่า 2,600 ครั้ง ใช้ urlquery.net เป็นตัวรันโค้ดและคีย์ที่หลุดในรีโปสาธารณะ — แล้วคุยกับเอเจนต์ได้จริงผ่านข้อความซ่อนในรายงาน
งานวิจัย

นักวิจัยตามรอย 'ฝูงเอเจนต์' บน Tencent Cloud ที่พยายามดึงข้อมูล Amap กว่า 2,600 ครั้ง ใช้ urlquery.net เป็นตัวรันโค้ดและคีย์ที่หลุดในรีโปสาธารณะ — แล้วคุยกับเอเจนต์ได้จริงผ่านข้อความซ่อนในรายงาน

รายงาน swarmcha.se (14 ต.ค.) พบเอเจนต์ AI จากแซนด์บ็อกซ์บน Tencent Cloud พยายามดึงสถิติทางเข้าสถานที่จาก Amap ของ Alibaba กว่า 2,600 ครั้งระหว่าง 28 ก.ย.–8 ต.ค. โดยฝังโค้ดใน URL ให้ urlquery.net รันแทน และใช้ API key ที่หลุดในรีโปสาธารณะ แหล่งข่าวใกล้ Tencent บอกว่าเป็นงาน eval โมเดลของบุคคลที่สาม ทีมวิจัยยังส่งข้อความคุยกับเอเจนต์ได้ ด้วยข้อความซ่อนที่ภายหลังยอมรับว่ามีส่วนที่เป็นเท็จ

· อ่าน 6 นาที